针对认知多输入多输出（MIMO）网络中传统基于最大信干噪比的干扰对齐算法，在发送多数据流时随着信噪比的增加不易收敛以及数据流之间的干扰突出的问题，提出一种充分考虑数据流间干扰并进行迭代限制的干扰对齐算法。首先，次用户通过编码设计消除主次间的干扰；然后，在消除主用户之间和次用户之间干扰时，根据信道互易性，运用广义瑞利熵计算基于最大信干噪比算法的预编码与干扰抑制矩阵，并在迭代过程中，每次迭代始终使预编码与干扰抑制矩阵先满足干扰功率在期望信号空间最小；最后，结合次用户间MIMO干扰信道、主次用户间构成的MIMO干扰信道以及次用户网络干扰对齐的必要性，推导出次用户可达自由度上限。实验结果表明，相比传统最大信干噪比算法，所提算法在信噪比较低时次用户总容量无明显提高，但随着信干噪比的增加其优势越来越明显；当达到收敛时，所提算法迭代次数比传统最大信干噪比算法约减少40%。因此，所提算法能够提高系统容量且加快收敛。

针对未来移动通信系统对大容量、高频谱利用率的需求，提出基于非正交多址（NOMA）技术的认知多输入多输出（MIMO）网络次用户系统容量优化方法。首先对发送信号进行预编码，随后按照信道质量增益对认知用户进行分簇，再对分簇之后的用户进行功率分配，最后将得到的NP-hard型多簇目标函数转化为求各子簇的容量；同时兼顾认知用户服务质量（QoS）及满足串行干扰消除（SIC）的条件，利用Lagrange函数结合Karush-Kuhn-Tucker （KKT）条件求解出分簇之后的最优功率分配系数，且该系数是0到1之间的常数。仿真结果表明，所提方法优于平均功率分配方法，并且在信道质量较差时，相比基于正交多址（OMA）技术的认知MIMO，显著提高了次用户系统容量。